Highlight-Then-Summarize: Learning to Compress Evidence for Long-Context Understanding
先高亮后摘要：学习为长上下文理解压缩证据
🧭 长上下文推理 · 证据压缩与强化学习 ★ 深度解读
Peking University · Baidu Inc. · Tsinghua University
提出 Highlight-Then-Summarize：先定位证据再生成问题条件摘要，压缩长上下文并提升推理
📌 工作参考价值（4 点）
- 在电商/Agent 场景中，对长商品说明、多跳用户评论、客服对话或政策条款，可让模型先输出「证据块 ID + 关键 span」再生成「问题条件摘要」，最后作答；这样既保留溯源能力，又减少无关内容对推理的干扰。
- 借鉴 H2S-RL 的过程奖励设计：不要只奖励最终答案，把 evidence grounding、span F1、summary ROUGE-L 和结构完整性分开给确定性的 programmatic reward；不依赖在线 LLM judge，适合离线训练和工程化。
- 给上下文分块并分配稳定 ID 的做法很实用：在搜索/推荐系统里对长文档、商品详情、用户历史做地址化，可支持后续引用、归因和审计，成本低。
- H2S 在 4K 输出预算下接近 16K 的表现，说明把压缩外化为显式 intermediate 比放任长 CoT 更省 token；在线上低延迟/低成本约束下，可优先考虑先压缩证据再推理的架构。